LLaDA-UI: Bringing Block-wise Diffusion to Vision-Language GUI Agents
LLaDA-UI:将分块扩散引入视觉语言GUI智能体
🧭 Agent · 分块扩散多模态模型
AGI Research Center, Inclusion AI · Venus Team · Westlake University
提出16.7B MoE分块扩散视觉语言GUI智能体,在多个GUI基准上超越Qwen2.5-VL-7B并在4/6基准上超过Qwen3-VL-8B
📌 工作参考价值(4 点)
- 分块扩散解码的并行性可降低端到端延迟,适合需要实时感知屏幕并快速决策的 Agent 场景(如自动操作商品后台、客服工单处理、广告账户管理);可在小规模任务中替换自回归解码验证扩散解码的加速效果。
- 两阶段训练策略(通用多模态预训练 + 领域 SFT)可复用于训练电商多模态 Agent:先对齐视觉与语言,再用业务 GUI 数据微调,无需从零构建视觉语言模型。
- 原生分辨率视觉编码器对细粒度 UI 元素定位重要;电商场景中商品图、广告素材上的小文字/按钮/价格可能被降采样丢失,采用原生或高分辨率编码可提升 grounding 精度。
- MoE 架构使 16.7B 总参数在多个 GUI 基准上超过同量级/更大稠密模型,在可控激活成本下保持性能,对需要并发处理大量 Agent 请求的业务有成本优势。